Representation Learning: Học Biểu Diễn Cho Feature Extractor
Nội dung
1. Giới thiệu
Representation Learning là kỹ thuật giúp mô hình tự động học ra các biểu diễn (features) quan trọng từ dữ liệu thô. Quá trình này thường dựa trên một bộ trích xuất đặc trưng (feature extractor), chuyển đổi dữ liệu đầu vào thành các vector tiềm ẩn (latent vectors) chứa thông tin cốt lõi.
Minh họa quá trình học biểu diễn: input → model → latent vector
Những latent vector này có thể tái sử dụng cho nhiều nhiệm vụ khác nhau như phân loại, phát hiện, hay các tác vụ khác, giúp tiết kiệm thời gian huấn luyện và tăng hiệu quả tổng thể.
2. Khái niệm Representation Learning
Representation Learning là quá trình học ra cách biểu diễn dữ liệu sao cho giữ lại những thông tin quan trọng nhất và loại bỏ nhiễu không cần thiết.
Bộ trích xuất đặc trưng (feature extractor) chính là thành phần chuyển đổi dữ liệu đầu vào thành các latent vector dạng số — những biểu diễn cô đọng và mang tính tổng quát cao, làm nền tảng cho các tác vụ tiếp theo (downstream tasks).
3. Ứng dụng của Representation Learning
- Tái sử dụng biểu diễn cho nhiều nhiệm vụ khác nhau (multi-task learning).
- Tiền huấn luyện (pretraining) để cải thiện hiệu quả khi dữ liệu có hạn.
- Áp dụng rộng rãi trong các lĩnh vực như xử lý ảnh, âm thanh, ngôn ngữ tự nhiên, và nhiều hơn nữa.
Biểu diễn chung được dùng cho nhiều task khác nhau